Invariances of random fields paths, with applications in Gaussian Process Regression

We study pathwise invariances of centred random fields that can be controlled through the covariance. A result involving composition operators is obtained in second-order settings, and we show that various path properties including additivity boil down to invariances of the covariance kernel. These results are extended to a broader class of operators in the Gaussian case, via the Lo\`eve isometry. Several covariance-driven pathwise invariances are illustrated, including fields with symmetric paths, centred paths, harmonic paths, or sparse paths. The proposed approach delivers a number of promising results and perspectives in Gaussian process regression

Additive Kernels for Gaussian Process Modeling

Gaussian Process (GP) models are often used as mathematical approximations of computationally expensive experiments. Provided that its kernel is suitably chosen and that enough data is available to obtain a reasonable fit of the simulator, a GP model can beneficially be used for tasks such as prediction, optimization, or Monte-Carlo-based quantification of uncertainty. However, the former conditions become unrealistic when using classical GPs as the dimension of input increases. One popular alternative is then to turn to Generalized Additive Models (GAMs), relying on the assumption that the simulator's response can approximately be decomposed as a sum of univariate functions. If such an approach has been successfully applied in approximation, it is nevertheless not completely compatible with the GP framework and its versatile applications. The ambition of the present work is to give an insight into the use of GPs for additive models by integrating additivity within the kernel, and proposing a parsimonious numerical method for data-driven parameter estimation. The first part of this article deals with the kernels naturally associated to additive processes and the properties of the GP models based on such kernels. The second part is dedicated to a numerical procedure based on relaxation for additive kernel parameter estimation. Finally, the efficiency of the proposed method is illustrated and compared to other approaches on Sobol's g-function

Packages (Re)Dice _ pour les computer experiments

http://r2014-mtp.sciencesconf.org/conference/r2014-mtp/pages/roustant.pdfNational audienceLa thématique des computer experiments ([1], [2]) concerne l'analyse ou la planification d'expériences dont la réponse est obtenue à l'aide d'un code de calcul coûteux. Typiquement, l'évaluation d'une réponse demande plusieurs heures, voire plusieurs jours de calcul. De telles situations se rencontrent dans des secteurs variés et intéressent de nombreux industriels, comme la simulation d'écoulement en ingénierie réservoir, ou la simulation de crash dans le secteur automobile. Les problèmes à résoudre concernent l'interpolation ou l'approximation de fonctions, l'optimisation. Ils sont liés à des problèmes plus classiques de statistique comme ceux de la planification d'expériences ou de la statistique spatiale, avec des spécificités dues à la nature des expériences (souvent déterministes) et à la dimension du problème (souvent supérieure à 3). On retrouve en particulier en computer experiments les techniques basées sur les processus gaussiens comme le krigeage. Le système R présente de nombreux atouts pour les computer experiments. Nous décrivons le rôle important joué par R dans les consortiums DICE [3] et ReDICE [4] rassemblant des industriels et des chercheurs académiques de cultures logicielles diverses. Plusieurs packages spécifiques ont été développés ou initialisés dans le cadre de ces consortiums et sont accessible sur le CRAN : DiceDesign, DiceEval, DiceKriging, DiceOptim, DiceView. D'autres packages sont en cours de développement. Nous présentons quelques fonctionnalités de ces packages, en lien avec leur contexte particulier de développement

On ANOVA decompositions of kernels and Gaussian random field paths

The FANOVA (or "Sobol'-Hoeffding") decomposition of multivariate functions has been used for high-dimensional model representation and global sensitivity analysis. When the objective function f has no simple analytic form and is costly to evaluate, a practical limitation is that computing FANOVA terms may be unaffordable due to numerical integration costs. Several approximate approaches relying on random field models have been proposed to alleviate these costs, where f is substituted by a (kriging) predictor or by conditional simulations. In the present work, we focus on FANOVA decompositions of Gaussian random field sample paths, and we notably introduce an associated kernel decomposition (into 2^{2d} terms) called KANOVA. An interpretation in terms of tensor product projections is obtained, and it is shown that projected kernels control both the sparsity of Gaussian random field sample paths and the dependence structure between FANOVA effects. Applications on simulated data show the relevance of the approach for designing new classes of covariance kernels dedicated to high-dimensional kriging

Modélisation statistique de la température pour la gestion des produits dérivés climatiques

http://www.emse.fr/~roustant/Documents/JDS_2006_Roustant.pdfNational audienc

Total Interaction Index: A Variance-based Sensitivity Index for Function Decomposition

http://mucm.ac.uk/UCM2012/Forms/Downloads/Posters/Fruth.pdfInternational audienc

Un exemple de pr é-projet à trois acteurs en école d'ingénieur

http://www.emse.fr/~roustant/Documents/PreProjet_trois_acteurs.pdfNational audiencePour améliorer la capacité des élèves ingénieurs à appréhender des problèmes complexes, nous avons imaginé un projet d'apprentissage dans lequel un acteur issu du monde industriel vient s'ajouter au duo enseignants - étudiants. Après une première expérience encourageante, nous détaillons son fonctionnement et précisons les apports induits par l'introduction du 3ème acteur